Тъй като корпоративна Америка се ориентира към AI, потребители, отхвърлени за заеми, работа

Ню Йорк – Рейчъл С живее в пешеходен квартал в Бруклин, Ню Йорк. Повечето дни тя може да живее удобно без кола. Тя постоянно работи отдалечено, само че понякога би трябвало да отиде в офиса. Това е мястото, където нейната обстановка става малко предизвикателна. Работното й място не е елементарно налично с публичен превоз.

Тъй като не й се постанова да кара постоянно, тя кандидатства за платформата за шерване на коли Zipcar, с цел да задоволи инцидентните си потребности. Процесът на кандидатстване е много бърз, което разрешава на потребителите да потеглят на път, употребявайки неговия автопарк относително бързо.

За страдание казусът с Рейчъл не беше подобен. Веднага щом натисна бутона за изпращане, софтуерът за изкуствен интелект, употребен от компанията, я счете за неприемлива. Озадачена от резултата, Рейчъл се свърза с екипа за обслужване на клиенти на компанията.

В последна сметка тя няма дефекти, които да подсказват, че е безконтролен водач. Тя няма точки в книжката си. Единственият минус беше санкцията за придвижване, която получи, когато беше на седемнадесет години, и това цитиране беше изплатено преди години.

Въпреки че след това цитирането на трафика е поправено, в този момент, когато е на тридесет години, тя към момента се оправя с следствията.

Тя беседва с екипа за обслужване на клиенти на Zipcar без резултат. Въпреки другояче чистото шофьорско досие, тя беше отхвърлена. Тя твърди, че компанията е споделила, че няма право на отбрана и че решението не може да бъде презаписано от човек.

„ Нямаше път или развой, който да се хареса на човешко създание и макар че е рационално, единственият метод да опитате още веднъж би бил да кандидатствате още веднъж “, за което има невъзвръщаема такса за кандидатстване, сподели Рейчъл пред Ал Джазира, припомняйки си диалога си с компания.

Zipcar не отговори на настояването на Al Jazeera за коментар.

Рейчъл е един от многото консуматори, на които системите с изкуствен интелект отхвърлиха заеми, участия и даже благоприятни условия за работа без никаква отбрана или политика за обжалване, защото фирмите не престават да разчитат на изкуствения разсъдък, с цел да вземат основни решения, които оказват въздействие върху всекидневието.

Това включва D, които неотдавна са изгубили работата си.

Като изискване за изявлението D изиска да използваме единствено техните букви от почитание към тяхната дискретност. D търсеше религиозно нова опция, само че безрезултатно.

След месеци на търсене, D най-сетне откри работа, само че имаше един голям проблем — времето.

Минаха още няколко седмици преди D да стартира новата работа и няколко седмици по-късно D получи първата заплата.

За да получи спомагателна помощ, D кандидатства за персонален заем на голям брой платформи в опит да заобиколи хищническите заеми до заплата, единствено с цел да се оправя в това време.

D беше отритнат за всички заеми, за които са кандидатствали. Въпреки че D не удостовери кои тъкмо компании, секторът има голям брой варианти, в това число Upstart, Upgrade, SoFi, Best Egg и Happy Money, наред с други.

D споделя, че когато са се обадили на фирмите след подаване на онлайн заявление, никой не е могъл да помогне, нито е имало обжалвания.

Когато D беше при започване на двадесетте, те имаха кредитна карта, с която не съумяха да заплащат сметки. Това беше единствената им кредитна карта. Те също наемат апартамент и разчитат на градския превоз.

Според онлайн кредитори, ръководени от AI, неналичието им на кредитна история и поръчителство ги прави неприемливи за заем, макар че са изплатили дълга си преди шест години.

D не удостовери кои съответни компании са пробвали за заем. Al Jazeera се обърна към всяка от тези компании за коментар по отношение на техните процеси – единствено две дадоха отговор – Upgrade и Upstart – дадоха отговор досега на издание.

„ Има случаи, в които сме в положение да променим решението за заема въз основа на спомагателна информация, т.е. доказателство за други източници на приходи, които не са били предоставени в първичното заявление, само че когато става дума за „ човек присъда, има доста място за персонални пристрастия, което е нещо, което регулаторите и водачите в промишлеността са работили интензивно, с цел да отстранен “, сподели представител на компанията Upgrade в имейл до Al Jazeera. „ Технологията донесе обективност и правдивост в процеса на разпределяне на заеми, като решенията към този момент се вземат въз основа на същинските заслуги на претендента. “

Историческите пристрастия са засилени

Но не е толкоз просто. Съществуващите исторически пристрастия постоянно се усилват със актуалните технологии. Според следствие от 2021 година на изданието The Markup чернокожите американци са с 80 % по-склонни да бъдат автоматизирано отхвърлени от организации за разпределяне на заеми, в сравнение с техните бели сътрудници.

„ ИИ е просто модел, който се образова на исторически данни “, сподели Наим Сидики, старши консултант в SAS, световна компания за ИИ и данни, където поучава банките по отношение на кредитния риск.

Това се подхранва от дългата история на дискриминационни практики в банкирането по отношение на цветнокожите общности в Съединените щати.

„ Ако вземете предубедени данни, всичко, което AI или който и да е модел ще направи, е всъщност да повтори това, което сте му дали “, сподели Сидики.

„ Системата е проектирана да взема допустимо най-вече решения с допустимо минимум пристрастия и човешка преценка, с цел да направи решението обективно. Това е иронията на ситуацията… несъмнено, има и такива, които се провалят “, добави Сидики.

Не е единствено въз основа на раса. Компании като Apple и Goldman Sachs даже са упреквани в редовно даване на по-ниски кредитни предели на дами, в сравнение с мъже.

Тези терзания също са свързани с поколенията. Siddiqi споделя, че сходни отводи също по този начин в огромна степен лимитират обществената подвижност измежду по-младите генерации, като по-младите милениали (тези, родени сред 1981 и 1996 г.) и Gen Z (тези, родени сред 1997 и 2012 г.), във всички демографски групи.

Това е по този начин, тъй като общоприетото название за мощно финансово здраве – в това число кредитни карти, домове и коли – при оценката на нечия финансова отговорност става все по-малко и по-малко подходящо. Само към половината от поколението Z имат кредитни карти. Това е спад от всички предходни генерации.

Поколението Z също е по-малко евентуално да имат поръчителство като кола, която да заложат, когато аплайват за заем. Според скорошно изследване на McKinsey възрастовата група е по-малко евентуално да избере да получи шофьорска брошура спрямо предходните генерации. Само една четвърт от 16-годишните и 45 % от 17-годишните имат шофьорска брошура. Това е спад надлежно с 18 % и 17 %.

Бюрото за финансова отбрана на потребителите ускори своите защитни ограничения за потребителите. През септември организацията разгласи, че организациите за кредитиране към този момент ще би трябвало да обяснят претекстовете зад отхвърли на заем.

„ Кредиторите постоянно зареждат тези комплицирани логаритми с огромни набори от данни, от време на време в това число данни, които могат да бъдат събрани от наблюдението на потребителите. В резултат на това на потребителя може да бъде отхвърлен заем по аргументи, които може да не считат за изключително свързани с финансите си “, се споделя в известие на организацията.

Агенцията обаче не обръща внимание на неналичието на човешки развой на обжалване, с който D твърди, че се е занимавал персонално.

D споделиха, че е трябвало да отсрочат заплащането на някои сметки, което ще навреди на дълготрайното им финансово положение и може да повлияе на способността им да получат заем с рационални лихвени проценти, в случай че изобщо в бъдеще.

„ Пропуснати от опциите “

Siddiqi предлага заемодателите да стартират да обмислят различни данни, когато вземат решение за заеми, които могат да включват заплащания за наем и комунални услуги и даже държание в обществените медии, както и модели на харчене.

В обществените медии чекирането на чужденци е основен знак.

„ Ако имате повече пари, сте склонни да пътувате повече или в случай че следвате страници като Bloomberg, Financial Times и Reuters, е по-вероятно да бъдете финансово виновен “, прибавя Siddiqi.

Проблемът с автоматизираното отменяне не е проблем единствено при молбите за заем и участие, само че и при опциите за работа. Потребителите на обществени медийни платформи като Reddit разгласяват имейли за отвод, които получават незабавно откакто подадат заявление.

„ Отговарям на всички условия и уцелих всички основни думи и в границите на една минута откакто подадох молбата си, получих както потвърждението на кандидатурата, по този начин и писмото за отвод “, сподели Матю Мълън, създателят на истинския афиш, пред Al Jazeera.

Базираният в Кънектикът видео редактор споделя, че това е първото за него. Експерти като Lakia Elam, началник на консултантската компания за човешки запаси Magnificent Differences Consulting, споделят, че сред системите за следене на претенденти и други принадлежности, ръководени от AI, това от ден на ден се трансформира в по-голяма тематика и все по-проблематично.

Системите за следене на претенденти постоянно подценяват портативни умения, които може не постоянно да подхождат на хартия с набора от умения на претендента.

„ Често пъти претендентите, които имат нелинеен кариерен път, доста от които идват от друг генезис, са изоставени от опциите “, сподели Елам пред Al Jazeera.

„ Продължавам да споделям на организациите, че би трябвало да запазим човешкото отношение в този развой “, сподели Елам.

Но от ден на ден организации разчитат повече на стратегии като ATS и ChatGPT. Елам твърди, че това пропуща доста почтени претенденти за работа, в това число самата нея.

„ Ако през днешния ден трябваше да мина през AI система, подсигурявам, че ще бъда отритнат “, сподели Елам.

Тя има GED — еквивалент на тапия за приблизително обучение — за разлика от четиригодишна степен.

„ Те виждат GED в автобиографията ми и споделят, че би трябвало да стоим надалеч от това “, добави Елам.

Отчасти това е повода американците да не желаят AI да взе участие в процеса на наемане. Според отчет от април 2023 година на Pew Research, 41 % от американците считат, че AI не би трябвало да се употребява за обзор на кандидатури за работа.

„ Това е част от по-голям диалог за загубата на пътища към подобаващ развой “, сподели Рейчъл.